阿里巴巴集团联合中国信通院编写了《人工智能治理与可持续发展实践白皮书》，全面总结了阿里巴巴在人工智能治理与可持续发展领域的实践，重点针对当前人工智能应用中的热点问题，从数据、技术、管理及多元协同等方面，系统性介绍了我们的实践思路和方法，同时辅以若干专题进行阐释，期待为社会各界提供有益参考。白皮书全文4.5万余字，将在9月正式发布，现分章节陆续分享。
隐私保护是以人为中心、构建可持续发展人工智能治理体系的核心要求之一。我国新一代人工智能治理原则、经济合作与发展组织（OECD）和二十国集团（G20）的人工智能治理原则都将隐私保护作为核心原则，我国《个人信息保护法》、欧盟《通用数据保护条例》（GDPR）等法律均对隐私保护措施提出了具体要求。国际众多知名企业也将保护隐私数据作为对用户的责任和商业道德规范，在内部治理和商业决策中对隐私风险和业务发展进行平衡。
数据六大生命周期都涉及到用户的个人信息，数据采集活动中对个人信息的收集需要遵从合法、正当、必要原则，针对敏感个人信息需要采用数据加密方式的数据存储，涉及到个人信息的数据处理、交换等需要告知个人并取得个人的同意等。具体来看，人工智能发展中需要兼顾个人信息保护，落实以人为本的治理目标，具体包括获得用户同意，允许用户对个人信息的授权使用场景进行控制，以及尊重用户限制和退出人工智能决策的意愿。
数据采集征得用户知情同意：让用户知情，获得用户授权是实现隐私保护的前提。以人为中心的人工智能治理首先需要帮助用户知悉人工智能的风险、收益和替代性的解决方案，使得用户能够在知情的基础上决定是否将个人信息交由人工智能处理。让用户知悉人工智能系统的存在和运行机制、获得用户同意也是面向用户进行解释的重要环节。通过用户同意，可以保证对用户个人信息的采集和后续人工智能处理的目的和结果符合用户的预期，确保人工智能的决策服务于用户，满足用户的实际需要。充分保障个人信息主体权利：用户对其个人信息的处理享有知情权、决定权，是隐私保护的重要原则之一。当个人信息存在错误、非必要收集使用或滥用的情况下，用户可以要求更正或删除自己的个人信息。实践中，人工智能系统的数据处理过程较为复杂，为了帮助用户实现对个人信息的决定权，微软为用户提供了适当的控制选项，帮助用户选择个人信息的使用方式；IEEE要求未成年人和能力受限人群的个人信息需要通过家长和其他监护人来控制，并建议为用户提供在线代理机器人，利用人工智能技术方式帮助用户进行控制决策。设置自动化决策退出机制：人工智能广泛应用于信用分析、劳动决策等领域，所做出的自动化决策对个人生活带来诸多影响，如果在分析判断中较多使用个人敏感信息，可能影响针对用户个体决策的公平性。因此个人信息保护原则要求人工智能避免单一追求针对用户个体的精准性，对用户影响重大的决策，应当避免完全通过自动化的方式做出。该机制一直以来是业内热议的焦点话题之一，目前也已达成了一定共识，例如《人工智能北京共识》（加脚注：2019年5月25日，北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟，共同发布《人工智能北京共识》。 ）要求在未预期情况发生时，建立合理的数据与服务撤销机制，以确保用户自身权益不受侵害。阿里巴巴始终视用户隐私安全为自身成长的生命线，科技护航隐私安全，合理有度使用个人信息，服务用户，造福社会。一是通过隐私政策、隐私产品、增强告知等方式主动告知用户收集和使用个人信息的规则，在获得同意后，才会收集和使用用户的个人信息。二是用户可以随时查询、修改、删除产品与服务中安全设置、个人资料、个人成长信息、支付宝绑定设置、微博绑定设置、个人交易信息、收货地址、旺旺网页版设置、应用授权等个人信息。高德则开放了历史记录管理功能，用户以管理历史搜索记录，收藏或删除常用的出行路线等方式，实现对人工智能推荐的控制和选择。三是每一类应用APP都建立了便捷的个性化推荐退出机制，对于隐私敏感度高的位置信息，高德提供了“足迹设置”，用户足迹设置仅对自己可见，并且可设置开启或关闭足迹地图，也可随时清除出行数据，退出自动化的足迹跟踪，保护自己的隐私。